L’opacité des algorithmes favorise les dérives au sein des établissements publics

Qu’il soit rudimentaire ou sophistiqué, le but tout à fait transparent d’un algorithme est de fournir un résultat à partir d’une commande bien définie. Son utilisation, en revanche, se fait la plupart du temps en toute opacité, y compris dans la sphère publique. Le score de risque utilisé par la Caisse nationale des allocations familiales (CNAF) pour cibler ses contrôles, sur lequel Le Monde a enquêté en collaboration avec le collectif de journalistes Lighthouse Reports, en est un cas d’école. Après une décennie d’utilisation, rien ou presque n’avait filtré au sujet des critères utilisés par l’organisme pour dire qui, parmi ses 13,8 millions de foyers d’allocataires, est jugé le plus « à risque » de commettre une erreur de déclaration ou une fraude.

Pour l’association de défense des libertés numériques La Quadrature du Net, c’est une affaire de principe. Le fonctionnement d’un tel système, qui brasse les données d’environ 33 millions de citoyens, devrait être rendu public et faire l’objet d’un débat démocratique. « Cette opacité a pour but de masquer les pratiques de la CNAF et son objectif réel : récupérer le plus d’argent possible », estime Alex, qui suit ce dossier au sein de l’association. En 2022, La Quadrature a demandé à la CNAF de publier le détail de son algorithme ainsi que la liste de l’ensemble des données utilisées pour son calcul.

Cette requête, qui s’appuie sur la loi de 1978 qui fixe des exigences de transparence aux administrations, a d’abord été rejetée par la CNAF. Cette dernière estime en effet que dévoiler sa recette reviendrait à donner aux fraudeurs toutes les clés pour déjouer les contrôles. L’association s’est alors tournée vers la Commission d’accès aux documents administratifs (CADA), l’instance chargée de traiter les litiges entre citoyens et services de l’Etat avant une éventuelle saisine du tribunal administratif.

La CADA s’est prononcée sur le sujet le 15 décembre 2022 : si le risque de contournement des contrôles invoqué par la CNAF peut s’entendre en ce qui concerne un système encore utilisé par une administration, rien ne s’oppose à ce qu’elle en communique les versions précédentes.

C’est grâce à cette brèche que La Quadrature du Net et Le Monde – dans une demande formulée en parallèle – ont pu obtenir récemment des informations détaillées sur les algorithmes utilisés pour contrôler les allocataires de 2010 à 2020. L’association en a tiré une analyse, publiée, lundi 27 novembre, sur son site, dans laquelle elle appelle à « un débat autour des dérives politiques ayant amené une institution sociale à recourir à de telles pratiques ».

Il vous reste 70% de cet article à lire. La suite est réservée aux abonnés.